AI Papers Daily

#Streaming RAG

2 篇

VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction

VoiceMem：实时交互的流式双脑记忆

🧭 实时语音 Agent 记忆 · 流式 RAG ★ 深度解读

Nanyang Technological University · National University of Singapore · Tsinghua University · The Chinese University of Hong Kong · Open Interaction Lab

双脑流式记忆：左脑管信息、右脑管情感人格，top-5 检索 134ms 达到实时语音交互记忆 SOTA

📌 工作参考价值（4 点）

• 用 schema-entity 两层索引替代扁平向量召回：先把候选池按实体/类目路由到小集合，再做 top-5/10 精排；适合电商导购/会话推荐里把用户长期行为、商品类目、偏好实体做成可寻址索引，低 token 预算下保持高准确率。
• 借鉴“让候选池更密而不是把 K 调大”的结论：通过 query 共现和 LLM judge 自动让兴趣簇/商品簇跨预设类目重组，可迁移到用户兴趣聚类、促销主题挖掘、Semantic ID 层级构建。
• 把事实行为与情感/偏好分开建模：独立节点记录长期偏好，跨实体节点记录对具体商品/事件的态度，避免把一次情境反应误判为长期兴趣；适合个性化推荐理由、卖点文案和售后 Agent 的情绪感知。
• 上层图路由与底层向量/记忆引擎解耦，四阶段流式检索拆分到固定静音/请求窗口内；在电商语音助手或实时推荐 Agent 中可异步执行召回/粗排/精排，保证延迟不随 K 线性增长。

RAG | 2026-08-25 | HF Daily | score 8/10

Voice MemoryStreaming RAGDual-Brain MemoryPersona ModelingAffective AttributionSpeech Agent

When Does Streaming Tool Use Help? Characterizing Tool-Intent Stabilization in Streaming Retrieval-Augmented Generation

流式工具使用何时有效？基于工具意图稳定化的流式 RAG 延迟隐藏分析

🧭 流式 RAG 意图稳定化与延迟优化

SMG Labs

在流式 RAG 中，通过分析工具意图稳定点，量化了可隐藏的延迟比例并揭示了早期意图形成的查询特性

📌 工作参考价值（4 点）

• 搜索自动补全/对话式推荐中，可借鉴投机查询思想：在用户输入进行时并行检索，当意图稳定后利用剩余输入时间隐藏检索延迟。
• 意图稳定点分析可指导何时触发推荐或 query 生成：早期意图稳定（如问题类型）可预测，从而提前启动计算，减少感知延迟。
• 提供的无模型边界 H 可为系统设计提供理论最大延迟隐藏能力，评估不同配置下的收益。
• 对于电商客服机器人，可以预测用户问题类型，在输入早期即发起商品或政策检索，提升响应速度。

RAG | 2026-06-18 | cs.IR | score 7/10

Streaming RAGTool-Intent StabilizationLatency HidingSpeculative QueryCRAG BenchmarkBM25